亚洲精品国产综合久久久久紧,久久99精品久久久久久清纯,人妻无码一区二区三区在线,ぱらだいす天堂中文网WWW

編者按：作為國(guó)內(nèi)最大的社交巨頭，騰訊是如何借用 AI技術(shù)來(lái)解決所面對(duì)的安全挑戰(zhàn)？

在6月30日舉辦的CCF-GAIR智能安全專場(chǎng)中，騰訊安全平臺(tái)部總監(jiān)胡珀帶來(lái)了《從危到機(jī)，AI 時(shí)代下的安全挑戰(zhàn)》的演講。

胡珀現(xiàn)任騰訊安全平臺(tái)部總監(jiān)，騰訊安全平臺(tái)部Blade Team負(fù)責(zé)人，是國(guó)內(nèi)首個(gè)漏洞獎(jiǎng)勵(lì)平臺(tái)Tsrc負(fù)責(zé)人。

以及應(yīng)急響應(yīng)、前沿安全、安全培訓(xùn)、安全研究、漏洞獎(jiǎng)勵(lì)計(jì)劃等工作。

以下是胡珀在現(xiàn)場(chǎng)的演講，宅客頻道做了不改變?cè)獾木庉嬚怼?/p>

也會(huì)用到AI。大家不要以為AI只是停留在學(xué)術(shù)界或者是工業(yè)界，其實(shí)現(xiàn)在黑產(chǎn)也大量在使用AI，之前我們處理過(guò)一個(gè)案子，就是黑產(chǎn)用機(jī)器學(xué)習(xí)的算法來(lái)識(shí)別驗(yàn)證碼，最高可以達(dá)到80%到90%的識(shí)別率，這個(gè)團(tuán)伙被摧毀后，我們發(fā)現(xiàn)這是我們見過(guò)的科技含量最高的黑產(chǎn)之一。

被用到了實(shí)際環(huán)境，可能直接導(dǎo)致車毀人亡的嚴(yán)重情況。

第三個(gè)問題就是被污染，也就是在AI的底層框架存在的問題。

比如谷歌的深度學(xué)習(xí)系統(tǒng)TensorFlow，Tencent Blade Team研究之后，發(fā)現(xiàn)它其實(shí)存在一些傳統(tǒng)的網(wǎng)絡(luò)安全問題，比如惡意構(gòu)造一個(gè)模型文件，格式經(jīng)過(guò)特殊構(gòu)造就可以控制它整個(gè)AI系統(tǒng)，然后可以算出AI系統(tǒng)的設(shè)計(jì)或者架構(gòu)問題。除此之外，如果引用了惡意的第三方組件，也會(huì)導(dǎo)致系統(tǒng)崩潰，拿到系統(tǒng)權(quán)限。

這些漏洞我們都報(bào)給了官方，并拿到了致謝。這些系統(tǒng)如果底層出問題，被黑客利用，后果是災(zāi)難性的，所以現(xiàn)在產(chǎn)業(yè)界、學(xué)術(shù)界都非常關(guān)注AI的底層架構(gòu)安全。

第四，許多智能設(shè)備都可能被控制。

比如智能音箱可能被竊聽，我們團(tuán)隊(duì)對(duì)市面上的一些智能音箱做了一系列研究，許多智能音箱都有安全問題，包括協(xié)議的解析和認(rèn)證授權(quán)等，其實(shí)還是傳統(tǒng)的安全問題。如果大家感興趣，可以在今年8月份在拉斯維加斯的DEF CON上關(guān)注我們介紹智能音箱的漏洞技術(shù)細(xì)節(jié)的議題。

智能音箱也存在被竊聽的問題，小米和亞馬遜都出現(xiàn)過(guò)安全問題，它們對(duì)協(xié)議的解析和認(rèn)證授權(quán)有問題。

如果大家感興趣，我們會(huì)在今年8月份，在拉斯維加斯講亞馬遜智能音箱的漏洞技術(shù)細(xì)節(jié)。

另外就是智慧城市，現(xiàn)在很多地方都引入了智慧城市，里面會(huì)用很多新的協(xié)議，比如 IoT 的協(xié)議，這個(gè)也存在許多安全隱患。

我們選用騰訊大廈作為目標(biāo)進(jìn)行了測(cè)試，發(fā)現(xiàn)它所使用的智能樓宇設(shè)備協(xié)議和加密通訊存在一些技術(shù)風(fēng)險(xiǎn)，這就造成我們可以通過(guò)遠(yuǎn)程控制某一層的會(huì)議室燈、空調(diào)、窗簾，包括插座等。

我們當(dāng)時(shí)放了一個(gè)無(wú)人機(jī)到頂樓，掛了一個(gè)信號(hào)發(fā)射器，實(shí)現(xiàn)了對(duì)整層樓的開燈關(guān)燈關(guān)窗簾的控制，在歐洲的HITB安全峰會(huì)上我們也詳細(xì)講了這個(gè)漏洞的技術(shù)細(xì)節(jié)。

因?yàn)楣?yīng)商是國(guó)外的，我們把問題報(bào)給官方，也修復(fù)了，做這個(gè)實(shí)驗(yàn)本身就是希望把這個(gè)問題修復(fù)掉。

除了智能音箱、智慧樓宇等，我們還研究過(guò)無(wú)人機(jī)。

2015年，Blade Team參加一個(gè)黑客比賽，遠(yuǎn)程用電腦把無(wú)人機(jī)劫持了。我們破解了無(wú)人機(jī)的通訊協(xié)議，破解之后發(fā)現(xiàn)，只能夠抓到一部分無(wú)線電協(xié)議，就可以去模擬搖控器發(fā)出來(lái)的協(xié)議，把當(dāng)時(shí)的無(wú)人機(jī)給劫持掉。

攝像頭也是類似。2014年的時(shí)候，我們對(duì)國(guó)內(nèi)的攝像頭做了一系列的安全評(píng)測(cè)，2014年是智能攝像頭元年，所以我們也要去跟進(jìn)看一下。大家有沒有見過(guò)有部電影叫《竊聽風(fēng)云》，里面有個(gè)橋段就是加了一個(gè)設(shè)備，把攝像頭替換掉，導(dǎo)致保安沒有發(fā)現(xiàn)有人進(jìn)去了。

有些攝像頭我們發(fā)現(xiàn)也是有這個(gè)問題的，我這里放了一個(gè)QQ公仔，攝像的 wifi 網(wǎng)絡(luò)被我劫持替換，就能控制它所有想要展示的圖像，我重新可以錄視頻，把公仔隱掉。

另外就是一些智能手機(jī)，因?yàn)橹悄苁謾C(jī)現(xiàn)在用了越來(lái)越多的一些所謂的生物識(shí)別、智能識(shí)別，比如說(shuō)人臉解鎖，人臉解鎖之前有很大的問題，但是我直接用照片，而且用二維的照片就可以解鎖。

不過(guò)現(xiàn)在應(yīng)該已經(jīng)加了3D或者活體識(shí)別了，就沒那么簡(jiǎn)單，但是我們目前在進(jìn)行的一些研究中發(fā)現(xiàn)還是有機(jī)會(huì)的。所以后面有機(jī)會(huì)大家還可以看到我們的分享。

另外就是有些手機(jī)可以支持智能設(shè)備解鎖，比如手環(huán)解鎖，只要手機(jī)靠近手環(huán)就解鎖了，不用輸密碼，這也是比較方便。

但在設(shè)計(jì)的時(shí)候會(huì)出問題，解鎖的時(shí)候它只會(huì)檢測(cè)我的手環(huán)match地址，這個(gè)也很容易實(shí)現(xiàn)，我們可以直接解鎖他的手機(jī)。另外一些品牌手機(jī)可能采取的是指紋解鎖，但我們發(fā)現(xiàn)用一個(gè)類似的導(dǎo)電硅膠，直接把紙巾按上去就可以了，根本不需要指紋，這個(gè)硅膠按上去算法也通過(guò)了，最后解鎖也通過(guò)。就像現(xiàn)在的智能電鎖，也是類似的原理。大家會(huì)發(fā)現(xiàn)，現(xiàn)在的智能手機(jī)也是不夠靠譜的。

前面我講的是智能設(shè)備本身的一些安全問題和供給場(chǎng)景演示，但除了他們本身存在的問題之外，AI技術(shù)還可能被黑產(chǎn)濫用。

這就是我們現(xiàn)在看到的，越來(lái)越多的智能設(shè)備鏈接到了網(wǎng)絡(luò)上，但是這些智能設(shè)備的安全防護(hù)又沒有傳統(tǒng)的pC防火墻，反而會(huì)被黑客黑掉，黑客就拿來(lái)挖礦、進(jìn)行DDoS攻擊等等，這樣就會(huì)帶來(lái)很大的問題。

這些就是一些惡意軟件，把物聯(lián)網(wǎng)設(shè)備拿來(lái)做DDoS攻擊，現(xiàn)在大量的IoT設(shè)備都連接上了網(wǎng)絡(luò)，包括路由器、攝像頭，很容易淪為黑客控制的工具。還有一些機(jī)器學(xué)算法也加入了黑產(chǎn)團(tuán)隊(duì)。

以上就是我講的第一部分，AI的安全問題，下面我來(lái)展開講一下第二部分，AI安全應(yīng)用在具體場(chǎng)景下的應(yīng)用，包括實(shí)戰(zhàn)等。

大概也是這三個(gè)方向：一個(gè)是會(huì)向傳統(tǒng)的生物特征轉(zhuǎn)變，第二個(gè)是研究工具有變化，以前是用特征工程來(lái)對(duì)抗黑客攻擊，現(xiàn)在可能會(huì)轉(zhuǎn)入機(jī)器學(xué)習(xí)的方法，可能用機(jī)器學(xué)習(xí)給它建一個(gè)域值和模型，通過(guò)模型來(lái)看它是否是黑客攻擊。

框架大概是這樣，可能就是有一個(gè)整體的平臺(tái)，再加上機(jī)器學(xué)習(xí)作為一個(gè)分析引擎，和其他的數(shù)據(jù)層、信譽(yù)庫(kù)等一起，協(xié)同進(jìn)行合作。

現(xiàn)在有一種很麻煩的攻擊，就是UDp模擬，包括協(xié)議都會(huì)模擬到正常的業(yè)務(wù)，這樣怎么做呢？還是會(huì)用機(jī)器學(xué)習(xí)相對(duì)好一點(diǎn)，在UDp模擬協(xié)議的特定場(chǎng)景之下，這種效果是非常好的。傳統(tǒng)的 DDoS 防護(hù)是通過(guò)一個(gè)量來(lái)發(fā)現(xiàn)，但機(jī)器學(xué)習(xí)可以通過(guò)很多維度解決這個(gè)問題。

我們可以看一下，大概引入機(jī)器學(xué)習(xí)的實(shí)際效果。我們主要是應(yīng)用在兩個(gè)層面，一個(gè)是DDoS，一個(gè)是黑客的入侵行為，我們看一下 DDoS 的效果。

這是一個(gè)傳統(tǒng)的DDoS的模型，加上一個(gè) AI 環(huán)節(jié)，用機(jī)器學(xué)習(xí)給所有商戶做畫像。在騰訊云上有很多這樣的小商家，可能它單個(gè)商戶面臨的流向不一樣，QQ空間和微信朋友圈流量非常大，小的商戶流量非常小，如果采取傳統(tǒng)的特征工程的方法不能很好解決，比如商戶做活動(dòng)或者雙十一整體流量上升，就會(huì)有這樣那樣的問題。

如果用AI畫基線，比如取前面三個(gè)月或者前面一個(gè)月的數(shù)據(jù)，引入機(jī)器學(xué)習(xí)生成一個(gè)模型，通過(guò)檢測(cè)模型來(lái)看是否是DDos的攻擊或者活動(dòng)量突增。這樣的話，平時(shí)就不僅是流量的大小，還包括原Ip的屬性，或者原端口、整個(gè)Ip的值，我們會(huì)把整個(gè)協(xié)議讓機(jī)器自己去學(xué)，讓它自己提特征出來(lái)，大概會(huì)選出很多維度，我們會(huì)用這個(gè)維度做模型。如果它某一天或者某一個(gè)時(shí)刻偏離這個(gè)模型，就可能是遭到DDos攻擊。

最后平均準(zhǔn)確率從80%到了96.4%，效果還可以，但機(jī)器也有誤報(bào)，我們現(xiàn)在采取雙引擎在跑，避免出問題。

在反入侵上也是類似，比如說(shuō)我們的系統(tǒng)管理員登陸服務(wù)器，登陸之后可能會(huì)做一系列的運(yùn)維，或者是部署操作，但它是個(gè)有限的集，同時(shí)它可能會(huì)在某一個(gè)特定的時(shí)間，或者會(huì)有特定的習(xí)慣，反正是有規(guī)律的。

這個(gè)規(guī)律如果通過(guò)特征工程很難做，但通過(guò)機(jī)器學(xué)習(xí)，可以很好地為服務(wù)器的每一個(gè)管理員帳號(hào)進(jìn)行精準(zhǔn)畫像，這樣就可以解決黑客冒用帳號(hào)的攻擊方式。

現(xiàn)在大部分情況是黑客直接拿一個(gè)帳號(hào)密碼，冒充管理做操作，但它的操作跟管理員是不一樣的，一個(gè)是時(shí)間，還有一個(gè)是翻找文檔，或者是偷數(shù)據(jù)的行為，但這些是正常運(yùn)維管理員和普通用戶不會(huì)出現(xiàn)的行為。所以完全可以通過(guò)這種模型，直接算一個(gè)匹配度，同時(shí)把它標(biāo)注出來(lái)。

騰訊也有在做這塊東西，效果就是我們的幾次演習(xí)，拿到管理員帳號(hào)做進(jìn)一步滲透的時(shí)候，他會(huì)明顯發(fā)現(xiàn)有異常，會(huì)告警出來(lái)，效果還可以。

今天我總結(jié)一下，講了兩部分：一部分就是AI本身的安全問題，其實(shí)我們可以看到，隨著現(xiàn)在AI和智能設(shè)備越來(lái)越應(yīng)用到我們的生活，有很多各式各樣的安全問題，不管是智能音箱、智能插座還是智慧樓宇等，一定會(huì)有很多黑客盯著，學(xué)術(shù)界、產(chǎn)業(yè)界最好提前發(fā)現(xiàn)解決，避免出更大的事故，畢竟以前的互聯(lián)網(wǎng)都是信息化的東西，現(xiàn)在跟物理世界結(jié)合之后，可能會(huì)產(chǎn)生很大很嚴(yán)重的影響。

第二部分是把機(jī)器學(xué)習(xí)方法應(yīng)用到傳統(tǒng)的安全場(chǎng)景，在某些特定場(chǎng)景下，AI絕對(duì)是優(yōu)于人類或者傳統(tǒng)的特征工程，但在某些場(chǎng)景我們還需要繼續(xù)探索。

問答環(huán)節(jié)：

雷鋒網(wǎng)：今天幾大巨頭都帶來(lái)了AI＋安全的演講，與他們相比，騰訊在這方面的戰(zhàn)略上有哪些不一樣？

胡珀：我覺得騰訊的AI+安全所面臨的場(chǎng)景會(huì)更豐富一些，大家都知道，騰訊主要的業(yè)務(wù)包括游戲、社交、支付等，所以我們AI+安全會(huì)圍繞這些場(chǎng)景做一些配套的工作，比如QQ上的登錄，QQ上的垃圾信息打擊，然后微信的登錄、微信這一塊的，都用到機(jī)器學(xué)習(xí)來(lái)保護(hù)賬戶的安全。

除此之外，我們也會(huì)在其他領(lǐng)域，比如騰訊在布局智能醫(yī)療，我們會(huì)配合騰訊的AI戰(zhàn)略，在AI+醫(yī)療方面針對(duì)安全方面做一些定制化的工作，其他比如智慧零售和智慧樓宇也會(huì)在AI安全方面有研究。

雷鋒網(wǎng)：能以具體場(chǎng)景為例講一下你們的AI＋安全如何落地嗎？

胡珀：比如智慧樓宇，它其實(shí)就是一個(gè)傳統(tǒng)的樓宇加上一個(gè) AI 的學(xué)習(xí)框架組成的，其實(shí)它有兩個(gè)問題：

1.它的 AI 學(xué)習(xí)方法有沒有問題。

2.它的傳統(tǒng)樓宇層有沒有問題。

甚至是他們兩者結(jié)合起來(lái)之后，會(huì)不會(huì)有新的問題出現(xiàn)？這都是我們要研究的東西。

雷鋒網(wǎng)：您在騰訊工作了11年，從最開始的 pC 安全、移動(dòng)安全、物聯(lián)網(wǎng)安全再到 AI 安全這塊，請(qǐng)問是不是安全人員以后都要對(duì)AI方面有所積累？以后這會(huì)是一個(gè)硬性的要求嗎？

胡珀：這不一定，安全整個(gè)領(lǐng)域還是很大的，比如說(shuō)他不做類似數(shù)據(jù)處理分析這塊的工作，他可能就不需要了解人工智能相關(guān)的知識(shí)。如果只是一個(gè)負(fù)責(zé)軟件漏洞挖掘的安全工程師，那他就不需要。

不過(guò)如果他是負(fù)責(zé)相關(guān)業(yè)務(wù)安全或者數(shù)據(jù)安全的，還是懂一些會(huì)比較好，因?yàn)樗胍环N新的方法就可能會(huì)提升他的效率。

現(xiàn)在AI這么火，未來(lái)肯定會(huì)有越來(lái)越多的這種開源的框架、工具，去幫助安全人員去工作，提升效率，所以我覺得可能是這樣一種場(chǎng)景，你懂技術(shù)，可以直接調(diào)用一個(gè)庫(kù)，去調(diào)用這些AI的方法，這就會(huì)非常簡(jiǎn)單了，而且現(xiàn)在已經(jīng)有這樣一種趨勢(shì)了。

雷鋒網(wǎng)：你剛才在演講中提到的宙斯盾所擁有的 DDoS 防御與其他的防御系統(tǒng)有何不同？?

胡珀：我覺得特點(diǎn)有兩個(gè)：

第一，因?yàn)轵v訊的業(yè)務(wù)非常大，類型也很多，所以這個(gè)抗DDoS的要求會(huì)很高，是個(gè)通用型的產(chǎn)品。

第二個(gè)是幫騰訊云上的商戶做，把它防護(hù)的每一個(gè)業(yè)務(wù)當(dāng)成一個(gè)商戶的話，它能適配不同的流量模型和類型，針對(duì)每一個(gè)商家，都是不同的模型，而不是一種一刀切的形式。

像傳統(tǒng)的廠商或者是說(shuō)傳統(tǒng)的方法，都是用一刀切的方式，就是我加一些黑特征，只要他命令這個(gè)特征，我就認(rèn)為是攻擊，就把它攔掉。但是這可能會(huì)造成誤殺，比如它搞了一個(gè)活動(dòng)，然后流量跟以前不一樣了，現(xiàn)在用機(jī)器學(xué)習(xí)的方法，會(huì)有一些調(diào)整，減少誤殺。

雷鋒網(wǎng)：在AI+安全領(lǐng)域，你有沒有特別欣賞的公司？

胡珀：其實(shí)我們重點(diǎn)是看哪些公司能把AI應(yīng)用在安全場(chǎng)景，然后對(duì)自身企業(yè)的安全防護(hù)會(huì)產(chǎn)生不錯(cuò)的效果。

本文來(lái)源：雷鋒網(wǎng)